Học không giám sát là gì? Các nghiên cứu khoa học liên quan

Giới thiệu về học không giám sát

Học không giám sát là nhánh máy học chuyên khám phá cấu trúc tiềm ẩn trong tập dữ liệu không có nhãn. Phương pháp này tập trung vào việc tìm kiếm mẫu, nhóm các điểm dữ liệu giống nhau, hoặc biểu diễn lại dữ liệu ở dạng gọn hơn mà không cần thông tin đầu ra (label).

Khác với học có giám sát phụ thuộc vào cặp đầu vào–đầu ra để huấn luyện mô hình, và học bán giám sát tận dụng một phần dữ liệu có nhãn, học không giám sát hoàn toàn dựa vào tính tương đồng nội tại giữa các mẫu. Điều này giúp ứng dụng rộng rãi khi nhãn dữ liệu khó thu thập hoặc tốn kém.

Ứng dụng của học không giám sát bao gồm khám phá cụm (clustering), giảm chiều dữ liệu (dimensionality reduction), phát hiện bất thường (anomaly detection) và biểu diễn đặc trưng (feature learning). Các kỹ thuật này hỗ trợ phân tích khám phá, tiền xử lý dữ liệu và cải thiện hiệu quả của các thuật toán khác.

Lịch sử và phát triển

Giai đoạn đầu của học không giám sát khởi nguồn từ các phương pháp thống kê cơ bản như phân tích thành phần chính (Principal Component Analysis – PCA) vào thập niên 1950. PCA được phát triển để tìm ra hướng biến đổi dữ liệu có phương sai lớn nhất, giúp giảm chiều và trực quan hóa.

Thuật toán k-means xuất hiện vào năm 1967, trở thành phương pháp phân tích cụm phổ biến nhất nhờ tính đơn giản và hiệu quả tính toán. Trong cùng giai đoạn, thuật toán Expectation–Maximization (EM) cho phân phối hỗn hợp Gaussian (Gaussian Mixture Model) ra đời, mở rộng khả năng phân tích cụm với nhiều dạng hình học phức tạp hơn.

Thập niên 2000 chứng kiến sự phát triển của các kỹ thuật giảm chiều như t-SNE (t-distributed Stochastic Neighbor Embedding) và UMAP (Uniform Manifold Approximation and Projection), hỗ trợ trực quan hóa dữ liệu phi tuyến. Đồng thời, tự mã hóa (autoencoder) xuất hiện trong lĩnh vực học sâu cho phép học biểu diễn (representation learning) phi tuyến hiệu quả.

Các phương pháp chính

Phân tích cụm (clustering) là nhóm các mẫu dựa trên độ tương đồng. Các thuật toán tiêu biểu gồm:

• k-means: chia dữ liệu thành k cụm, tối ưu tổng bình phương khoảng cách đến tâm cụm.
• DBSCAN: xác định cụm dựa trên mật độ điểm, phát hiện cụm hình dạng tự do và outlier.
• Hierarchical clustering: xây dựng cấu trúc cây cụm (dendrogram) từ dưới lên hoặc trên xuống.

Giảm chiều dữ liệu (dimensionality reduction) chuyển đổi tập dữ liệu ban đầu thành không gian thấp chiều hơn, giữ lại tính chất quan trọng:

• PCA: tìm các thành phần chính tuyến tính.
• t-SNE: tối ưu tương đồng xác suất giữa không gian cao chiều và thấp chiều.
• UMAP: sử dụng lý thuyết manifold để bảo toàn cấu trúc toàn cục và cục bộ.

Phát hiện bất thường (anomaly detection) và tự mã hóa (autoencoder) cũng là thành phần quan trọng:

1. Isolation Forest: cô lập điểm bất thường bằng cách xây dựng cây ngẫu nhiên.
2. One-Class SVM: học ranh giới bao quanh dữ liệu phổ biến.
3. Autoencoder: tái tạo đầu vào qua kiến trúc mạng nén, điểm tái tạo lớn cho thấy bất thường.

Công thức tiêu chuẩn cho k-means

Mục tiêu của k-means là tối thiểu hóa hàm mất mát J biểu diễn tổng bình phương khoảng cách giữa mẫu và tâm cụm:

$J = \sum_{i=1}^{k} \sum_{x \in C_i} \lVert x - \mu_i \rVert^2$

trong đó $C_i$ là tập mẫu thuộc cụm thứ i, và $\mu_i$ là vector trọng tâm cụm i. Quá trình lặp gồm hai bước: gán mẫu về cụm gần nhất và cập nhật lại trọng tâm.

ký hiệu	ý nghĩa
$k$	số cụm xác định trước
$x$
$\mu_i$	trọng tâm cụm thứ i
$\lVert x - \mu_i \rVert$	khoảng cách Euclid giữa mẫu và tâm cụm

Thuật toán kết thúc khi không còn thay đổi gán cụm hoặc tổng mất mát hội tụ dưới ngưỡng. Hiệu suất phụ thuộc vào khởi tạo trọng tâm và số cụm k.

Đánh giá và lựa chọn mô hình

Đánh giá mô hình học không giám sát phụ thuộc chủ yếu vào các chỉ số nội tại (intrinsic) và ngoại tại (extrinsic). Các chỉ số nội tại đo lường chất lượng phân cụm hoặc giảm chiều dựa trên cấu trúc dữ liệu ban đầu, trong khi chỉ số ngoại tại so sánh kết quả với nhãn phụ trợ nếu có.

Chỉ số	Loại	Ý nghĩa
Silhouette Score	Nội tại	Độ rõ ràng giữa các cụm
Davies–Bouldin Index	Nội tại	Độ tương đồng giữa cụm và độ phân tán
Adjusted Rand Index (ARI)	Ngoại tại	Độ khớp với nhãn tham chiếu
V-measure	Ngoại tại	Độ chính xác và đầy đủ của phân cụm

Đánh giá trực quan qua biểu đồ phân tán hoặc ma trận khoảng cách cũng là phương pháp hỗ trợ quan trọng, đặc biệt khi giảm chiều xuống 2–3 thành phần để minh họa mối liên hệ giữa các điểm dữ liệu. Việc kết hợp phân tích thống kê và trực quan giúp xác định mô hình phù hợp nhất với yêu cầu thực tiễn.

Quy trình lựa chọn mô hình thường bắt đầu với thử nghiệm đa dạng thuật toán trên một tập nhỏ, so sánh chỉ số và trực quan hóa, sau đó tối ưu siêu tham số (hyperparameter tuning) và kiểm định chéo (cross-validation) để đảm bảo tính ổn định và khả năng khái quát hóa.

Ứng dụng thực tiễn

Trong marketing, học không giám sát hỗ trợ phân khúc khách hàng dựa trên hành vi mua sắm, tần suất truy cập và sở thích sản phẩm. Kết quả phân cụm giúp doanh nghiệp triển khai chiến dịch cá nhân hóa và tối ưu hóa ngân sách quảng cáo.

• Phát hiện gian lận giao dịch tài chính bằng Isolation Forest hoặc One-Class SVM.
• Giảm chiều dữ liệu gen và hình ảnh y tế để hỗ trợ chẩn đoán (Nature Scientific Reports).
• Phân tích chủ đề và nhóm tài liệu trong khai thác văn bản (topic modeling).

Ví dụ, trong ngành tài chính, mô hình tối ưu giúp nhận diện sớm các giao dịch bất thường, giảm thiểu tổn thất và nâng cao an ninh hệ thống. Trong y tế, giảm chiều dữ liệu gene expression cho phép phát hiện dấu hiệu ung thư với độ nhạy cao hơn 85%.

Thách thức và hạn chế

Chọn số cụm (k) hoặc độ chiều (d) phù hợp luôn là bài toán mở; thông thường phải kết hợp kiến thức chuyên môn với kết quả đánh giá mô hình. Thiếu nhãn chuẩn khiến khó khẳng định tính đúng đắn tuyệt đối của kết quả.

• Nhạy cảm với ngoại lệ và nhiễu, đặc biệt với k-means khi dữ liệu có phân phối phức tạp.
• Độ phức tạp tính toán cao với dữ liệu lớn, cần cắt mẫu hoặc sử dụng thuật toán phân tán.
• Khó giải thích (interpretability) khi sử dụng các phương pháp phi tuyến hoặc mạng nơ-ron sâu.

Để khắc phục, thường áp dụng tiền xử lý loại bỏ ngoại lệ, chuẩn hóa dữ liệu và chọn thuật toán phù hợp với tính chất tập dữ liệu. Nghiên cứu giải thích mô hình và tăng khả năng trực quan hóa đang là hướng phát triển quan trọng.

Công cụ và thư viện

Scikit-learn là thư viện Python tiêu chuẩn cho học không giám sát, cung cấp sẵn clustering, giảm chiều và phát hiện bất thường với API trực quan (scikit-learn.org).

Thư viện	Chức năng	Ưu điểm
scikit-learn	Clustering, PCA, manifold	Dễ sử dụng, tài liệu đầy đủ
umap-learn	Giảm chiều UMAP	Bảo toàn cấu trúc tốt
hdbscan	Clustering mật độ	Tự xác định số cụm
TensorFlow/PyTorch	Autoencoder, GAN	Cao cấp, hỗ trợ GPU

Các công cụ đám mây và container như Docker, Kubernetes cũng thường được sử dụng để triển khai quy mô lớn và đảm bảo tính nhất quán môi trường phát triển — vận hành.

Xu hướng tương lai

Học không giám sát đang chuyển hướng sang tự giám sát (self-supervised learning) và mô hình khổng lồ (large pre-trained models) như BERT, GPT, CLIP để trích xuất đặc trưng đa phương thức từ văn bản, hình ảnh và chuỗi thời gian.

• Kết hợp dữ liệu đa nguồn: sensor, văn bản, hình ảnh để xây dựng mô hình toàn diện.
• Phát triển tiêu chuẩn đánh giá tự động cho các nhiệm vụ không giám sát.
• Nâng cao giải thích mô hình (explainability) và công bằng (fairness).

Trong tương lai gần, việc tích hợp học không giám sát với hệ thống khuyến nghị và AIOps (AI for IT Operations) sẽ tạo ra các giải pháp tự động hóa thông minh, phản ứng nhanh và tự điều chỉnh trong các môi trường phức tạp.

Tài liệu tham khảo

• Jain, A. K. (2010). “Data Clustering: 50 Years Beyond k-Means,” Pattern Recognition Letters, 31(8): 651–666.
• Pedregosa, F. et al. (2011). “Scikit-learn: Machine Learning in Python,” Journal of Machine Learning Research, 12: 2825–2830.
• Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press.
• McInnes, L., Healy, J., & Melville, J. (2018). “UMAP: Uniform Manifold Approximation and Projection for Dimension Reduction,” arXiv preprint arXiv:1802.03426.
• Schölkopf, B., & Smola, A. J. (2002). Learning with Kernels. MIT Press.